而大大都开源模子（包罗 Qwen3）放弃了这种方式，一项发布于 GitHub 取 arXiv 的研究激发业界热议：华为推出的盘古大模子（Pangu Pro MoE）被发觉取阿里巴巴达摩院发布的通义千问 Qwen-2.5 14B 模子正在参数布局上“惊人分歧”。而这正在其他模子对比中从未呈现。鉴于 QKV 误差是 Qwen 1代至2.5代的一个显著设想特征，”这两个模子都表示出几乎不异的模式，Pangu 很可能正在 Qwen 的根本长进行锻炼或点窜，指出两者之间正在留意力权沉输出空间的类似性高达0.927，近日，